近年来,关于如何在公平限制下学习机器学习模型的越来越多的工作,通常在某些敏感属性方面表达。在这项工作中,我们考虑了对手对目标模型具有黑箱访问的设置,并表明对手可以利用有关该模型公平性的信息,以增强他对训练数据敏感属性的重建。更确切地说,我们提出了一种通用的重建校正方法,该方法将其作为对手进行的初始猜测,并纠正它以符合某些用户定义的约束(例如公平信息),同时最大程度地减少了对手猜测的变化。提出的方法对目标模型的类型,公平感知的学习方法以及对手的辅助知识不可知。为了评估我们的方法的适用性,我们对两种最先进的公平学习方法进行了彻底的实验评估,使用四个具有广泛公差的不同公平指标以及三个不同大小和敏感属性的数据集。实验结果证明了提出的方法改善训练集敏感属性的重建的有效性。
translated by 谷歌翻译
在这里,我们提出了一种称为歧管插值最佳传输流量(MIOFLOW)的方法,该方法从零星时间点上采集的静态快照样品中学习随机,连续的种群动力学。 Mioflow结合了动态模型,流动学习和通过训练神经普通微分方程(神经ode)的最佳运输,以在静态种群快照之间插值,以通过具有歧管地面距离的最佳运输来惩罚。此外,我们通过在自动编码器的潜在空间中运行我们称为Geodesic AutoCododer(GAE)来确保流量遵循几何形状。在GAE中,正规化了点之间的潜在空间距离,以匹配我们定义的数据歧管上的新型多尺度测量距离。我们表明,这种方法优于正常流,Schr \“ Odinger Bridges和其他旨在根据人群之间插值的噪声流向数据的生成模型。从理论上讲,我们将这些轨迹与动态最佳运输联系起来。我们评估了我们的评估使用分叉和合并的模拟数据,以及来自胚胎身体分化和急性髓样白血病的SCRNA-SEQ数据。
translated by 谷歌翻译
随着变压器模型的激增,许多人研究了注意力如何在学习的表示上。但是,对于语义解析等特定任务,仍然忽略了注意力。句子含义形式表示的一种流行方法是抽象含义表示(AMR)。到目前为止,句子及其AMR表示之间的对齐方式已通过不同的方式进行探索,例如通过规则或通过期望最大化(EM)算法。在本文中,我们研究了基于变压器的解析模型在没有临时策略的情况下产生有效对齐的能力。我们通过句子跨度和图中的语义单元之间对齐,对AMR进行了对AMR的交叉注意事项的第一次深入探索。我们展示了当前基于变压器的解析器如何隐式编码交叉注意权重中的对齐信息以及如何利用它来提取这种比对。此外,我们使用对齐方式监督和指导交叉注意,从而删除对英语和特定于AMR的规则的需求。
translated by 谷歌翻译